Сомнительная полночь [сборник] - Эдмунд Купер

Конечно. В этом и заключалась основная проблема, и она усложнялась тем, что жизнь так и не поддавалась определению, он мог только распознать жизнь.

Марион-А обладала всей информацией, необходимой для успешного выполнения функций, для которых она была создана. Но дело не закончилось тем, что ее электронный микромозг выпустили из отдела кодирования и проверки в центре производства андроидов. Она была устроена так, что ее основная программа могла совершенствоваться, изменяться по мере приобретенного опыта. У нее была синтетическая память, и она могла накапливать опыт. Теоретически, решил Маркхэм, она может быть способна принимать решения, не предусмотренные ее создателями, если только ее не снабдили встроенным набором запретов, чтобы при любых обстоятельствах ее поведение согласовывалось с ограничениями, заложенными в первоначальную программу. Но в живых существах запреты могут быть нарушены, как могут быть созданы и новые. Маркхэм раздумывал, возможно ли нарушить запреты, заложенные в Марион-А, и если это возможно, то удастся ли не создавать новые вместо старых.

Неожиданно он понял, что ставит себе задачу. Нечто вроде теста. Вряд ли это приблизит решение вопроса — можно ли рассматривать андроидов как живых существ, — но хотя бы даст некоторое представление о том, что стоит против него и всего остального человечества.

Марион-А была запрограммирована служить ему до тех пор, пока его поведение соответствует неким принятым стандартам. Другими словами, она запрограммирована действовать в первую очередь в интересах республики и уж потом в интересах самого Джона Маркхэма.

Но вдруг эта очередность может быть изменена? — пришла ему фантастическая и соблазнительная мысль.

С каждым днем Маркхэм все больше и больше времени уделял Марион-А. Во-первых, он решил исследовать пределы ее знаний и был поражен, если не унижен, результатами. Он обнаружил, что она просто ходячая энциклопедия. Однако, если дело не касалось фактов, а области возможностей в нематериальном мире теней и символов, она отставала по чутью и воображению от любого развитого ребенка.

Она знала все о скорости света, общей мировой истории, эволюции жизни, Вселенной, волновой механике или экологии растений. И все же, хотя она знала, что роза, музыка или солнечный закат могут казаться прекрасными человеку, она не понимала — почему; она не имела представления о природе красоты, счастья или любви.

Маркхэм не вынашивал планов исследования «умственных позиций» Марион-А и последующей атаки на ее программу в логическом или ярко сформулированном виде. Он сам себе дал преимущество, о котором сначала и не подозревал, — действовать по стечению обстоятельств. Он хотел, чтобы в программе Марион-А осуществился какой-то неясный, воображаемый скачок от философского созерцания спиральной туманности к поэтическому описанию звезды, что может сделать только человек. Его беседа переходила от обсуждения поведения к рассмотрению вопросов о романтической любви в одном предложении, и от кибернетики — к сравнительной религии — по подсказке спонтанной мысли.

Он играл в шахматы с Марион-А, он рассказывал ей о Кэйти, детях и о жизни в двадцатом веке. Он заставлял ее слушать музыку и спрашивал ее мнение о том, почему определенный отрывок вызвал в нем радость, грусть или интеллектуальный подъем. Он пытался помочь ей понять трагедию Гамлета, загадку Моны Лизы, величие Баха, полотна Блейка, высокопарность Марлоу, мелодии Чайковского.

И день за днем, постепенно Марион-А поддавалась. Ее программа не была подготовлена к такой концентрированной атаке. Симптомы сперва были слабые — почти незаметные.

Она начала забывать кое-какие вещи, вещи, ставившие ее в тупик, вещи, которые были необъяснимыми рационально. Мысли, которые казались важными, но абсурдными. Она начала делать ошибки. Она больше не была монотонно-работоспособной.

А иногда, когда Маркхэм безжалостно насмехался над какой-нибудь ее погрешностью, она вдруг стала проявлять симптомы того чувства, которое у человека можно было бы назвать страданием.

Она была запрограммирована так, чтобы принимать свою собственную программу без вопросов. Безжалостными усилиями Маркхэм заставлял ее задавать себе эти вопросы, вопросы о себе самой и о роли андроидов в обществе.

Она не выглядела усталой, потому что андроид устать не может. Тем не менее ее движения стали медленней, в них не было прежней уверенности. Она не могла быть несчастной, потому что андроиды не программируются ни на счастье, ни на несчастье — только на работоспособность. Однако время от времени она стала просить оставить ее одну, или спрашивала разрешения взять геликар для бесцельного полета, или хотела пройтись по улицам Лондона без определенной цели.

Маркхэм замечал все это и не упускал случая дать Марион-А понять, что он видит происходящие в ней изменения. И все время он убеждал себя, что единственным мотивом этого эксперимента является интеллектуальное любопытство.

Если бы она была человеком, эту игру можно было бы смягчить сочувствием, даже состраданием. Но каждый раз, когда у него появлялось искушение ослабить давление, он напоминал себе, что просто проводит приватный и неортодоксальный эксперимент, связанный с программированием; что машина, с которой он работает, безусловно, ведет себя непредсказуемо, но страдать она не может.

В своем стремлении решить философскую задачу Маркхэм не учел свои собственные психологические пределы, свой личный интерес к результатам опыта, и поневоле подсознательно тоже был вовлечен в него.

Марион-А напоминала Кэйти, но Кэйти-то была мертва. Поэтому Марион-А следовало рассматривать как мертвую или, во всяком случае, как не живую. Но он любил Кэйти, и какая-то часть его сознания увлеклась возможностью того, что и Марион-А может узнать влечение, которое могло бы преследовать его всегда. Бессознательно он хотел искупить то, что он выжил. У него было смутное ощущение, что эксперимент с Марион-А поможет ему освободиться от уз прошлого.

Однажды вечером, после спокойного обеда дома, в Найтсбридже, Маркхэм начал праздно перелистывать страницы старой антологии поэзии, которую он нашел в антикварном отделе одного из республиканских магазинов. Это была переплетенная в кожу, с золотым обрезом, двухсотлетняя книга, все еще сохранившая запах гостиных, в которых она впервые начала пылиться.

Твердые, старинные страницы вызвали острое чувство ностальгии, как только он открыл книгу, и неожиданно Маркхэм увидел стихотворение, которое открыло ему чувственное волшебство языка, когда ему было немногим больше десяти лет.